面向 LLM 推荐的多教师推理蒸馏与自探索框架 MUSE
🧭 推理增强推荐 · 多教师蒸馏 ★ 深度解读
The Hong Kong Polytechnic University · Nanyang Technological University
MUSE 构建多教师+学生自探索候选池，用 Rank-Gain 效用筛选并对比蒸馏，让 LLM 推荐器学到真正有益的偏好推理
📌 工作参考价值（4 点）
- 用下游排名收益做无标注推理筛选：RGUA 直接以 ground-truth item 的全库排名提升作为推理轨迹效用，避免人工标注，很适合电商/广告中大量交互日志。工程上只需轻量 encoder 算候选 rank，不必引入 LLM evaluator，成本低。
- 多教师 + 学生自探索的候选池设计：先让多个 teacher LLM 生成候选，再随训练逐步增加学生采样数量，让模型逐渐摆脱 teacher 知识上限。业务中可对重要用户/类目建立多 LLM 候选池，用 ranking 指标筛选后再蒸馏。
- 双对比损失解耦“生成”和“利用”：ConDistill 让 generator 拉开高/低效用推理的 likelihood；ConUtil 让 encoder 强制在好推理下比坏推理更接近目标 item，防止模型只依赖历史行为而忽略推理信号。该思路可迁移到多任务推荐排序中，用对比目标强化特征利用。
- 训练与推理效率可复用：teacher 推理预生成并缓存，推理时只需 student 单次生成，vLLM 延迟与 R2ec 相当；业务可离线跑多教师，在线保持轻量。
全局蒸馏、局部适配：面向可扩展升级推荐的推理蒸馏与产品类型测试时训练
🧭 LLM知识蒸馏与测试时适配用于商品关系推荐 ★ 深度解读
Amazon Everyday Essentials Technologies
将LLM推理蒸馏成轻量embedding对分类器，并用商品类型级测试时训练进一步适配，实现无LLM推理的高效升级推荐
📌 工作参考价值（4 点）
- 离线蒸馏替代在线LLM：在电商catalog级商品关系判定中，用LLM离线生成标注+理由，蒸馏到15.5M参数embedding-pair分类器，推理仅需两个预计算768维向量，速度提升5000倍，成本降低10000倍。该方法可直接迁移到商品替代/互补关系、query-商品匹配等大规模打分任务。
- 保留细粒度标签比二分更有效：蒸馏时保留LLM的四分类（similar、反向升级、升级、不相关）标签比合并成二分类更能让rationale监督发挥作用（AUC 0.912→0.924 vs 0.911→0.911）。在业务中若关系本身有方向或等级，不要为了简化而合并类别。
- 按品类/商品类型做轻量测试时适配：每个product-type用少量专家标注support set（K=32）微调LoRA adapter，比全局统一adapter提升更显著（AUC 0.940 vs 0.929），而且推理成本不变。适合新品冷启动或品类间标准差异大的场景。
- Support set复用降低标注成本：同一批专家标注示例既作为LLM的few-shot演示，又作为测试时训练的梯度监督，最大化样本利用率。工程实现时可将此设计为统一的数据pipeline。
ReAlign：通过推理对齐表征实现可泛化图像伪造检测
🧭 图像伪造检测 · 推理蒸馏
Peking University · South China University of Technology · Guangdong Provincial Key Laboratory of Ultra High Definition Immersive Media Technology, Shenzhen Graduate School, Peking University
利用GRPO优化LLM生成推理文本，通过对比蒸馏训练轻量检测器，兼顾泛化性与效率
📌 工作参考价值（4 点）
- 若业务涉及商品图像真伪鉴别，可借鉴该推理蒸馏范式：用GRPO优化LLM生成细粒度、语义敏感的伪造推理文字，再通过对比学习将其蒸馏到轻量视觉模型，在保持推理能力的同时降低部署成本。
- 联合优化对比损失与分类损失的策略，可迁移到其他需要图文对齐的轻量判别任务（如商品描述一致性校验）。
- 自建高保真合成数据集UltraSynth-10k的思路，可参考用于构建电商AIGC干扰样本，提升业务模型对新型生成图像的鲁棒性。
- 对Agent及生成式推荐直接借鉴有限，但其中利用推理文本作为“免费”增强信号提升泛化性的思想，或可启发在推荐解释生成或用户意图推理中的多模态对齐设计。